OpenAI DevDay 2024

ChatGPTではなくAPI関連の新ネタが盛りだくさんだった

開発等はしていないので、さすがに自分で活用するタイプのネタはない。

プロンプトキャッシングはAPIから使う時に自動で効いてくれるらしいので役立つかもしれない？

Genspark.icon

主な発表

ビジョンファインチューニング、リアルタイムAPI、モデル蒸留、プロンプトキャッシング

主要な発表

ビジョンファインチューニング

リアルタイムAPI

音声入力と出力を可能にし、自然な会話体験を提供。

モデル蒸留

大規模モデルの出力を使用して小規模モデルの性能を向上。

プロンプトキャッシング

入力トークンのコストを最大50%削減。